網站建設初始技術即網站在建立階段，就必須全盤綜合考慮的技術細節，因為后續在網站運營過程中再進行調整，會牽涉太多方面，甚至無法執行。

1.網站站點地圖(Sitemap)的設置和技術細節

Sitemap是一種通知機制，就是通過創建一個文件的方式，把網站網頁的URL提交給搜索引擎，在Sitemap中定義好頁面的URL地址、權重、更新頻率等。通過把Sitemap提交給搜索引擎，搜索引擎爬蟲沿著Sitemap里面的鏈接地址進行爬行，這就是Sitemap的機制。

普通Sitemap文件的建立如下。通過XML的方式創建Sitemap，這是最常見也是最簡單的一種方式。

網址

2015.01.03T04:20.08:00

always

1.O

網址

2015.01.02T20:20:36Z

daily

O.8

1.百度Sitemap

網頁地址

2015-01-01

dafly

1.0

2.重要字段含義

?changefreq：指定提交的URL對應頁面內容的更新頻率，例如，daily、weeIdb，、monthly、yearly。這個參數用于設置搜索引擎頁面變動的頻率，即考量是否需要蜘蛛經常爬行并更新網頁的內容。

?lastmod：當前頁面內容最后的修改時間，這個參數可以給搜索引擎一個參考，就是時效性的參考，某些內容，特別是咨詢類的，搜索引擎會將內容的更新時間作為排序的一個因子。

?priority：定義頁面的權重，權重越高，相對于其他頁面，當前頁面的優先級越高。

?：用描述具體的鏈接地址，這里需要注意的是鏈接地址中的一些特殊字符必須轉換為XML(HTML)定義的轉義字符，簡化版的

Sitemap也可以采用記事本方式，就是直接打開一個記事本，然后把URL填入，每個URL一行，然后直接提交搜索引擎，也能實現同樣的目的。

3.超級門戶的Sitemap模式

搜索引擎并不限定每個網站提交的Sitemap文件的個數，因此，如果網頁

URL條目比較多，可以對新增的頁面進行差額提交。

在創建多個Sitemap文件時，可以通過一個父Sitemap文件鏈接多個子

Sitemap文件，子Sitemap文件通過填充實際URL條目的模式完成，這樣可以確保

每個Sitemap文件的URL條目不會特別多，建議一個Sitemap文件的URL條目不

要超過1000個。

下面是一個例子。

http://www.abc.com/sitemap1.xml.gz

http://www.abc.com/sitemap2.xml.gz

Sitemapl：

URLl

2015-01-01

daily

1.0

URL2

20 1 5..0 1.，0 1

daily

1.0

URL3

2015.01.01

dafly

1.0

URL4

20 l 5―0 1.0 1

daily

1.0

提交Sitemap的方式有多種，通常的做法是創建百度或者其他搜索引擎的站長賬戶，然后在站長后臺把Sitemap的uRL提交上去，在站長后臺可以看到每個Sitemap的處理進度和收錄的數據。

2.Robots文件設置和技術細節

Robots.txt文件放在網站的根目錄下，主要用于通知蜘蛛在該網站上的抓取范圍，SEO可以在這個文件中聲明該網站中不想被搜索引擎收錄的部分，或者指定搜索引擎只收錄特定的部分。

(1).經常使用到Robots.txt文件的情況

?網站升級，老版本網站的很多頁面在新版本網站中去掉了，在這種情況下，可以通過Robots文件告訴蜘蛛不再抓取這些已經被去掉的頁面。

?網站存在很多重復的內容，比如一個網站同時存在動態頁面和已經經過靜態化處理的頁面，這些頁面在內容上都是完全重復的內容，為了解決重復的問題，可以在Robots文件中禁止蜘蛛抓取動態頁面。

?網站內部有些內容不便于公開發布，但是需要允許內部查閱。遇到這種情況，可以在Robots中告訴蜘蛛不要抓取。

(2).Robots文件的基本寫法

User-agent：

Allow：/cgi.bin/see

Allow：/tmp/hi

Allow：/~joe/look

Disallow：/cgi.bin/

Disallow：/t.mp/

Disallow：|00e|

Allow是允許蜘蛛爬行的頁面，而Disallow后面則是不允許蜘蛛訪問的路徑和文件。

3.Robots的使用示例

(1)僅允許訪問某目錄下某個后綴的文件。

這里僅允許訪問帶“$”符號的網址，如下。

User―agent：*

Allow：.asp$

Disallow：/

(2)禁止索引網站中所有的動態頁面。

這里是限制訪問帶“?”的網址，例如，index.asp?id=1。

User―agent：*

DisallOW：/*?*

(3)使用“*”，限制訪問帶某個后綴的域名。

這里是禁止訪問admin目錄下所有htm文件，如下。

User―agent：*

DisaUow：/admin/*.htm

本文由領創網絡菏澤網站建設https://www.lingchuangweb.com/ 原創文字，版權所有，轉載請注明出處，并保留本鏈接，謝謝!